Khi Công Tôn Thắng nghe tin Tiều Cái có ý cướp sinh thần cương nên ông đã theo Tiều Cái mà đoạt lợi phẩm. Lương Trung Thư nghe tin bị cướp báu vật liền đùng đùng nổi giận liền sai Đô đầu bị phạm tội ra lãnh quân đánh tặc khấu bằng thua thì chém. Đô đầu ấy hai lần tấn công nhưng không thành lại bị Nguyễn Tiểu Ngũ sẻo tai, sợ mà trốn về. Tiều Cái thấy tình hình bất lợi liền dẫn huynh đệ của mình lên Lương sơn. Nhưng Vương Luân (Trại chủ của Lương sơn lúc này) là một tên hèn nhát, bụng dạ hẹp hòi không muốn họ ở lại liền dụ tiền để đuổi họ đi, Lâm Xung thấy rõ bản chất tiểu nhân của Vương Luân, tức quá chém chết hắn và tôn Tiều Cái làm chủ trại. Từ đó Công tôn Thắng và các huynh đệ của Tiều Cái chính thức gia nhập Lương sơn. Về sau khi Lương sơn bạc đã hội tụ đủ 108 thủ lĩnh và phân chia thứ bậc, Công Tôn Thắng được xếp ở vị trí thứ 4.